Shared Layers
释义 Definition
Shared layers(共享层):指在神经网络或软件架构中,同一组网络层(及其参数/权重)被多个分支、多个任务或多个输入共同使用,以共享特征表示、减少参数量并提升泛化能力。(在深度学习中最常见;在其他技术语境中也可泛指“可复用的公共层/公共模块”。)
发音 Pronunciation (IPA)
/ʃɛrd ˈleɪərz/
例句 Examples
The two tasks use shared layers to learn common features.
这两个任务使用共享层来学习共同特征。
In a multi-task model, shared layers capture general patterns, while task-specific heads focus on each objective.
在多任务模型中,共享层负责捕捉通用模式,而任务专用的输出头则分别聚焦各自目标。
词源 Etymology
shared 来自动词 share(分享、共用),源于古英语 scearu(分配、份额)相关词根;layer 来自 lay(放置、铺设),表示“层次/层”。组合成 shared layers,字面即“被共同使用的层”,在机器学习语境中通常特指“共享参数的网络层”。
相关词 Related Words
文献与作品 Literary / Notable Works
- Ian Goodfellow, Yoshua Bengio & Aaron Courville,《Deep Learning》(2016):在多任务学习、表示学习等章节中讨论共享表示/共享参数的思想(与“shared layers”概念高度相关)。
- Jacob Devlin et al., “BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding”(2018):BERT 作为共享的编码层(可视作共享层/共享骨干),在下游任务上接不同任务头。
- Ashish Vaswani et al., “Attention Is All You Need”(2017):Transformer 的编码器/解码器堆叠层在架构复用与共享表征方面常被用来说明“共享层”式的设计思路(尤其在多任务或多输入变体中)。